Ruby 丸め誤差 - masuyama's notes

Ruby 丸め誤差

#Ruby #numeric #float #rational

code:ruby

0.1 * 3.0 #=> 0.30000000000000004

0.1 * 3.0 == 0.3 #=> false

Rational（有理数）クラスを使う

code:ruby

0.1r * 3.0r #=> (3/10)

0.1r * 3.0r == 0.3 #=> true

(0.1r * 3.0r).to_f #=> 0.3